微軟Azure ND GB300v6虛擬機在Llama270B模型上創下每秒110萬token推理速度新紀錄。該成就基於與英偉達的深度合作,採用配備72個Blackwell Ultra GPU和36個Grace CPU的NVIDIA GB300NVL72系統,突顯微軟在規模化AI運算領域的專業實力。
Lambda與微軟達成大規模AI基礎設施合作,將部署數萬臺Nvidia GPU,包括最新GB300NVL72系統。具體交易金額未公開。Lambda CEO表示雙方正合作部署大型AI超級計算機。